| Problem 1 |
| Search over the Internet about the contrastive divergence (CD) algorithm in machine learning. Write a summary of 300 words about this algorithm. Busque en la Internet acerca del algoritmo de divergencia contrastiva (CD) en aprendizaje de máquina. Escriba un resumen de 300 palabras de este algoritmo. |
Markov Chain |
| It is a systems that experiences transitions from one state to another state following some probabilistic rules. Es un sistema que experimenta transiciones de un estado a otro estado siguiendo algunas reglas de probabilidad. |
| Problem 2 |
| Search over the Internet 10 applications of Markov Chains. For each application, write a brief summary for each application. Busque en la Internet 10 aplicaciones de las Cadenas de Markov. Para cada aplicación, escriba un resumen breve de cada aplicación. |
Mean Field |
| Mean field is a method to estimate the gradient of the log-likelihood with respect the weights in a Restricted Boltzmann Machine. The gradient can be used during training to find the weights of the RBM. The algorithm begins by activating the visible units. Then, the Markov chain begins by sampling, activating the hidden units and activating the visible units. When the number of iterations of the Markov chain is reached, the gradient is estimated. The process may be repeated for some training cases, and therefore, the gradient can be estimated from the whole or a subset of the training cases. Mean Field es un método para estimar el gradiente del log-likelihood con respecto a los pesos en una Máquina Restringida de Boltzmann. El gradiente puede ser usado durante el entrenamiento para encontrar los pesos de la RBM. El algoritmo inicia activando la unidades visibles. Entonces, la Cadena de Markov inicia muestreado, activando las unidades escondidas y activando las unidades visibles. Cuando el número de iteraciones de la cadena de Markov se alcanza, se estima el gradiente. El proceso puede repetirse para algunos casos de entrenamiento, y por lo tanto, el gradiente puede ser estimado desde todo o desde un subconjunto de los casos de entrenamiento. |
Gradient Estimation |
| The figure below shows another method to estimate the gradient of the log-likelihood with respect the weights. This algorithm is very similar to the method of "Mean Field", however, it includes three additional modules of sampling. La figura de abajo muestra otro método para estimar el gradiente del log-likelihood con respecto a los pesos. Este algoritmo es muy semejante al método de "Mean Field", sin embargo, este incluye tres módulos adicionales de muestreo. |
| Problem 3 |
| Download a research paper about contrastive divergence. Write a 300 words summary to describe the motivation and the obtained results. Do not forget to include the title of the paper, the names of the authors, the journal name and the year of publication. Descargue un artículo de investigación sobre la divergencia contrastiva. Escriba un resumen de 300 palabras para describir la motivación y los resultados obtenidos. No se olvide de incluir el título del artículo, los nombres de los autores, el nombre de la revista y el año de publicación. |